Prinz Harry und Meghan schließen sich der Forderung nach einem Verbot der Entwicklung künstlicher „Superintelligenz“ an

Prinz Harry und seine Frau Meghan haben sich mit prominenten Informatikern, Ökonomen, Künstlern, evangelikalen christlichen Führern und den amerikanischen konservativen Kommentatoren Steve Bannon und Glenn Beck zusammengeschlossen, um ein Verbot der KI-„Superintelligenz“ zu fordern, die die Menschheit bedroht.

Der Brief, der am Mittwoch von einer politisch und geografisch vielfältigen Gruppe von Persönlichkeiten des öffentlichen Lebens veröffentlicht wurde, richtet sich direkt an Technologiegiganten wie Google, OpenAI und Meta Platforms, die sich gegenseitig um die Entwicklung einer Form künstlicher Intelligenz überbieten, die den Menschen bei vielen Aufgaben übertreffen soll.

Die 30 Wörter umfassende Erklärung lautet:

„Wir fordern ein Verbot der Entwicklung von Superintelligenz, das erst aufgehoben wird, wenn ein breiter wissenschaftlicher Konsens darüber besteht, dass dies sicher und kontrollierbar geschieht, und die Öffentlichkeit stark dafür einsteht.“

In einer Präambel des Briefes heißt es, dass KI-Tools zwar Gesundheit und Wohlstand bringen könnten, dass aber neben diesen Tools „viele führende KI-Unternehmen das erklärte Ziel haben, im kommenden Jahrzehnt eine Superintelligenz aufzubauen, die alle Menschen bei praktisch allen kognitiven Aufgaben deutlich übertreffen kann. Dies hat Bedenken ausgelöst, die von der wirtschaftlichen Überalterung und Entmachtung des Menschen über den Verlust von Freiheit, bürgerlichen Freiheiten, Würde und Kontrolle bis hin zu Risiken für die nationale Sicherheit und sogar dem möglichen Aussterben der Menschheit reichen.“

Prinz Harry fügte in einer persönlichen Notiz hinzu: „Die Zukunft der KI sollte der Menschheit dienen, nicht sie ersetzen. Ich glaube, der wahre Test des Fortschritts wird nicht sein, wie schnell wir vorankommen, sondern wie klug wir steuern. Es gibt keine zweite Chance.“

Neben dem Herzog von Sussex unterzeichnete auch seine Frau Meghan, die Herzogin von Sussex.

„Dies ist kein Verbot oder gar Moratorium im üblichen Sinne“, schrieb ein weiterer Unterzeichner, Stuart Russell, ein KI-Pionier und Informatikprofessor an der University of California in Berkeley. „Es handelt sich lediglich um den Vorschlag, angemessene Sicherheitsmaßnahmen für eine Technologie zu fordern, die nach Ansicht ihrer Entwickler mit hoher Wahrscheinlichkeit zum Aussterben der Menschheit führen könnte. Ist das zu viel verlangt?“

Ebenfalls unterschrieben haben die KI-Pioniere Yoshua Bengio und Geoffrey Hinton, die gemeinsam den Turing Award, den wichtigsten Preis der Informatik, gewonnen haben. Hinton erhielt im vergangenen Jahr zudem den Nobelpreis für Physik. Beide haben lautstark auf die Gefahren einer Technologie aufmerksam gemacht, die sie mitentwickelt haben.

Doch die Liste enthält auch einige Überraschungen, darunter Bannon und Beck. Die Organisatoren des Briefes, das gemeinnützige Future of Life Institute, versuchen damit, Präsident Donald Trumps „Make America Great Again“-Bewegung anzusprechen, obwohl Trumps Mitarbeiter im Weißen Haus versucht haben, die Beschränkungen für die KI-Entwicklung in den USA zu lockern.

Ebenfalls auf der Liste stehen Apple-Mitbegründer Steve Wozniak, der britische Milliardär Richard Branson, der ehemalige Vorsitzende der Vereinigten Stabschefs der USA Mike Mullen, der unter republikanischen und demokratischen Regierungen diente, sowie die demokratische Außenpolitikexpertin Susan Rice , die nationale Sicherheitsberaterin von Präsident Barack Obama war.

Die ehemalige irische Präsidentin Mary Robinson und mehrere britische und europäische Parlamentarier unterzeichneten, ebenso wie die Schauspieler Stephen Fry und Joseph Gordon-Levitt sowie der Musiker will.i.am, der sich auch sonst für die KI in der Musikproduktion einsetzt .

„Ja, wir wollen spezielle KI-Tools, die helfen können, Krankheiten zu heilen, die nationale Sicherheit zu stärken usw.“, schrieb Gordon-Levitt, dessen Frau Tasha McCauley vor den Umwälzungen, die 2023 zur vorübergehenden Absetzung von CEO Sam Altman führten, im Vorstand von OpenAI saß. „Aber muss KI auch Menschen imitieren, unsere Kinder pflegen, uns alle in Junkies verwandeln und mit der Schaltung von Werbung Millionen von Dollar verdienen? Die meisten Menschen wollen das nicht.“

Der Brief dürfte in der KI-Forschungsgemeinschaft anhaltende Debatten über die Wahrscheinlichkeit einer übermenschlichen KI, die technischen Wege dorthin und die damit verbundenen Gefahren auslösen.

„In der Vergangenheit ging es meist um Nerds gegen Nerds“, sagt Max Tegmark, Präsident des Future of Life Institute und Professor am Massachusetts Institute of Technology. „Ich glaube, was wir hier sehen, ist, dass die Kritik mittlerweile im Mainstream angekommen ist.“

Erschwerend kommt hinzu, dass dieselben Unternehmen, die nach dem streben, was manche Superintelligenz und andere künstliche allgemeine Intelligenz (AGI) nennen, manchmal auch die Fähigkeiten ihrer Produkte übertreiben, um sie marktfähiger zu machen und die Sorge vor einer KI-Blase zu schüren. OpenAI wurde kürzlich von Mathematikern und KI-Forschern verspottet, als ein Forscher behauptete, ChatGPT habe ungelöste mathematische Probleme gelöst – während es in Wirklichkeit nur das fand und zusammenfasste, was bereits online verfügbar war.

„Es gibt eine Menge Dinge, die überbewertet werden, und man muss als Investor vorsichtig sein. Das ändert aber nichts an der Tatsache, dass sich die KI in den letzten vier Jahren viel schneller entwickelt hat, als die meisten Leute vorhergesagt hatten“, sagte Tegmark.

Tegmarks Gruppe stand auch hinter einem Brief vom März 2023 – noch zu Beginn eines kommerziellen KI-Booms –, in dem die Tech-Giganten aufgefordert wurden, die Entwicklung leistungsfähigerer KI-Modelle vorübergehend zu pausieren. Keines der großen KI-Unternehmen folgte diesem Aufruf. Und der prominenteste Unterzeichner des Briefes von 2023, Elon Musk, gründete gleichzeitig still und heimlich sein eigenes KI-Startup, um mit denjenigen zu konkurrieren, die er zu einer sechsmonatigen Pause verdonnert hatte.

Auf die Frage, ob er sich auch dieses Mal wieder an Musk gewandt habe, sagte Tegmark, er habe die CEOs aller großen KI-Entwickler in den USA angeschrieben, aber nicht mit einer Unterschrift gerechnet.

„Ich habe ehrlich gesagt großes Mitgefühl für sie, denn sie stecken so fest in diesem Wettlauf nach unten, dass sie einen unwiderstehlichen Druck verspüren, weiterzumachen und nicht von den anderen überholt zu werden“, sagte Tegmark. „Ich denke, deshalb ist es so wichtig, den Wettlauf zur Superintelligenz so zu stigmatisieren, dass die US-Regierung einfach eingreift.“